Ra đời từ rất sớm, ngay khi nhà nước ra đời thì các nhà tù cũng được thiết lập cùng với lực lượng vũ trang, tòa án tạo nên hệ thống công cụ trấn áp của giai cấp thống trị đối với các giai cấp, tầng lớp bị trị trong xã hội. Thuở sơ khai, nhà tù chủ yếu được dùng để giam giữ những người chống đối lại giai cấp cầm quyền, tức là những kẻ có thể làm ảnh hưởng đến sự tồn tại của giai cấp đó. Về sau cùng với sự phát triển của xã hội, nhà tù còn được dùng để giam giữ tội phạm, tức những kẻ chống đối, gây hại cho cộng đồng xã hội. Và ở thời kỳ nào cũng vậy, ngoài chức năng pháp định của mình các nhà tù còn thực hiện những nhiệm vụ chính trị riêng của mình.

Nhà tù cổ

Thời cổ đại, để giam giữ những người chống đối hay các nô lệ thì giai cấp cầm quyền đã biết tới việc xây dựng các nhà tù, dù còn đơn giản, để giam giữ những kẻ chống đối, những tên nô lệ...Những nhà tù này thường xây dựng đơn giản nhưng rất kiên cố. Các tù nhân bị giam giữ giống như những con thú nuôi, trong các lồng, cũi...

Nhà tù phong kiến

Thời gian này, đã xuất hiện những nhà tù, thường gọi là 'ngục kiên cố hơn.

Nhà tù phát xít

Nhà tù phát xít mà nổi tiếng là các trại tập trung của phát xít Đức là nơi giam giữ những người dân mà không cần qua một phiên tòa xét xử nào cả. Những trại tập trung chủ yếu dùng để giam giữ những người Do Thái và những người Cộng sản. Nơi đây nổi tiếng vì sự hà khắc của nó, các tù nhân thường xuyên bị đánh đập, tra tấn, dùng làm vật thí nghiệm cho các nghiên cứu...

Nhà tù hiện đại